หลังจากถูกถอดถอนออกจากการเป็นทหารมา 4 ปี คอลิดก็เสียชีวิตและถูกฝังที่เอมีซาในปีค.ศ. 642 ปัจจุบันสุสานของเขาอยู่ในมัสยิดคอลิด อิบนุ วะลีด ป้ายสุสานของคอลิดแสดงรายชื่อสงครามมากกว่า 50 ครั้งโดยที่เขาไม่เคยแพ้ (ไม่รวมสงครามย่อยๆ)[94] มีรายงานว่าเขาต้องการที่จะเสียชีวิตในฐานะผู้พลีชีพในสงคราม แต่ได้รับความผิดหวังเมื่อเขารู้ว่าจะต้องเสียชีวิตบนเตียงนอน[95] คอลิดจึงรู้สึกเศร้าเสียใจ แล้วพูดว่า:

ข้าได้เข้ารบหลายครั้ง เพื่อที่จะเป็นผู้พลีชีพ ร่างกายของข้าไม่มีรอยจุด, แผลเป็น และรอยแผลที่เกิดจากหอกหรือดาบเลย และตอนนี้ข้าต้องนอนตายเหมือนกับอูฐแก่...[96]— คอลิด อิบน์ วะลีด

เมื่อเห็นเขารู้สึกเศร้า เพื่อนของคอลิดจึงบอกว่า:

เจ้าต้องเข้าใจนะ โอ้คอลิด เมื่อศาสนทูตของอัลลอฮ์ (มุฮัมมัด) ขอความสันติจงมีแด่ท่าน ได้ให้สมญานามเจ้าว่า ซัยฟุลลอฮฺ และท่านกำหนดไว้ว่าเจ้าจะไม่แพ้สมรภูมิใดๆ ทั้งสิ้น ถ้าเจ้าถูกฆ่าโดยผู้ปฏิเสธศรัทธาแล้ว นั่นหมายความว่าดาบของอัลลอฮ์ได้ถูกทำลายลงโดยศัตรูของอัลลอฮ์; และนั่นไม่สมควรที่จะเกิดขึ้น[97]— เพื่อนเก่าของคอลิด

นี่คือคำพูดที่พูดไว้แค่วันเดียวก่อนที่คอลิดจะเสียชีวิต อุมัรได้ร้องไห้หนักมากและกล่าวว่า:

ขอให้พระองค์ทรงเมตตาเจ้า อบู สุไลมาน (คอลิด) สิ่งที่เจ้าทำตอนนี้ดีกว่าสิ่งที่เจ้ามีในวันนี้ ตอนนี้เจ้าอยู่กับองค์อัลลอฮ์แล้ว...[98]— อุมัร อิบน์ คอฏฏอบ